Mẹ của Phạm Văn Đồng là cụ Nguyễn Thị Tuân.[12]

Phạm Văn Đồng có vợ là bà Phạm Thị Cúc (sinh năm 1922, kém ông 16 tuổi)[13], sinh được một người con trai duy nhất là Phạm Sơn Dương (sinh năm 1951)[14], hiện là thiếu tướng Quân đội nhân dân Việt Nam, phó giám đốc Viện Khoa học và Công nghệ Quân sự[15][16][17]. Sau khi lấy bà Cúc (tháng 10 năm 1946) Phạm Văn Đồng vào công tác trong Liên khu V. Mấy năm sau, bà Cúc được phép vào Nam sống với chồng. Vào đến nơi thì Phạm Văn Đồng lại được lệnh ra Bắc. Sau đó bà Cúc bị bệnh "nửa quên nửa nhớ" (theo lời của Việt Phương, người từng làm thư ký cho Phạm Văn Đồng trong 53 năm) kéo dài cho đến tận bây giờ. Phạm Văn Đồng từng đưa bà Cúc sang Trung Quốc, Liên Xô chữa bệnh nhưng vẫn không khỏi. Phạm Văn Đồng mất trước bà Phạm Thị Cúc.[18][19] Bà Phạm Thị Cúc mất lúc 10 giờ 45 phút sáng ngày 15 tháng 10 năm 2018, hưởng thọ 96 tuổi.[20]

Phạm Sơn Dương có vợ là Minh Châu và hai người con: con trai Quốc Hoa, con gái Quốc Hương. Tên của Quốc Hoa và Quốc Hương là do Phạm Văn Đồng đặt, ý là "hoa, hương của đất nước".[21]